Repo-To-Skill: Distilling GitHub Repositories Into AI4AI Skills
Repo-To-Skill:从 GitHub 仓库蒸馏 AI4AI 技能
🧭 Agent 技能蒸馏与知识复用
Beijing Academy of Artificial Intelligence · University of Science and Technology of China · Renmin University of China · Hong Kong Polytechnic University
提出 DisCo 与 AREX-Skill 库,将 GitHub 仓库蒸馏为可复用技能,显著提升研究 Agent 表现
📌 工作参考价值(4 点)
- 把推荐/搜索团队常用 ML 仓库、内部训练/推理框架、特征工程、评估脚本等拆成 compact, verified skill 卡(方法族/代码用法/验证检查),挂到 rec-agent 的库中,避免每次任务重读长 repo 或浪费 trial。
- 借鉴 task-agnostic + task-oriented 双轨蒸馏:先离线从 1k 个仓库沉淀通用技能,再按具体推荐/搜索任务(如“多目标精排调参”)定向蒸馏小技能;可显著降低 agent 上下文长度和对长 repo 的依赖。
- 技能组织成 capability families(类似 taxonomy)后,可用检索式挂载,只把 relevant skills 注入 prompt,而不是把整个 repo 塞进 KV cache;这个模式对商品推荐、Query 改写、广告文案生成的 LLM/Agent 工具调用同样适用。
- 验证/评估:每个 skill 需通过可执行测试才入库,保证“知道方法”与“能跑通”结合;在业务 agent 平台里建议引入同样的 skill 验证环节,减少错误工具调用和不可复现实验。